Непростой вопрос. С одной стороны, в исторических (не существующих в настоящее время) названиях государств с большой буквы пишутся первое слово и входящие в состав названия имена собственные: Французское королевство, Неаполитанское королевство, Королевство обеих Сицилий; Римская империя, Византийская империя, Российская империя; Новгородская республика, Венецианская республика; Древнерусское государство, Великое государство Ляо и т. д.
С другой стороны, в названии Союз Советских Социалистических Республик все слова пишутся с большой буквы, хотя этого государства тоже уже не существует. Сохраняются прописные буквы и в названиях союзных республик, в исторических названиях стран соцлагеря: Польская Народная Республика, Народная Республика Болгария и т. д.
Историческая дистанция, безусловно, является здесь одним из ключевых факторов. Должно пройти какое-то время (не два–три десятилетия, а гораздо больше), для того чтобы появились основания писать Союз советских социалистических республик по аналогии с Российская империя.
Историческая дистанция вроде бы позволяет писать в приведенных Вами названиях государственных образований с большой буквы только первое слово (эти образования существовали непродолжительное время и исчезли уже почти 100 лет назад). Но, с другой стороны, прописная буква в каждом слове названия подчеркивает тот факт, что эти сочетания в свое время были официальными названиями государств (или претендовали на такой статус). Если автору текста важно обратить на это внимания читателя, он вправе оставить прописные буквы (даже несмотря на то, что таких государственных образований давно уже нет на карте).
Справочник Д. Э. Розенталя «Прописная или строчная?» фиксирует: Римская республика. Сочетания этих слов с определениями Ранняя, Поздняя в словарях не отмечены, но по аналогии с зафиксированным в указанном справочнике Ранняя Римская империя корректно: Ранняя Римская республика, Поздняя Римская республика.
С прописной буквы пишутся все слова (кроме служебных) в официальных названиях существующих государств и государственных объединений. Государства Российская империя в настоящее время не существует, это исторический термин, поэтому с прописной пишется только первое слово. Ср.: Королевство Испания, Соединенное Королевство (официальные названия современных государств), но: Французское королевство, Неаполитанское королевство (исторические названия); Республика Кипр, Итальянская Республика, но: Венецианская республика, Новгородская республика. Правильно: Российская империя (а также Римская империя, Османская империя, Британская империя и т. п.).
Правильно: Римская империя.